Digitalni sudija na granici: Algoritmi pretvaraju decu migrante u odrasle ljude!
Dodajte Kurir u vaš Google izborReč je o takozvanoj tehnologiji Facial Age Estimation (FAE), odnosno proceni starosti putem analize fotografije, koja bi trebalo da pomogne službenicima da utvrde da li je osoba mlađa ili starija od 18 godina. Međutim, brojna interna testiranja pokazala su da algoritmi često greše upravo kod najosetljivije starosne granice između 16 i 18 godina.
Britansko Ministarstvo unutrašnjih poslova (Home Office) insistira da AI neće donositi konačne odluke, već će predstavljati samo dodatni alat koji će pomagati službenicima na granici. Ipak, kritičari upozoravaju da u praksi ljudi veoma često veruju procenama algoritama, naročito kada rade pod pritiskom i sa velikim brojem slučajeva. Upravo zbog toga raste strah da bi tehnologija mogla da postane svojevrsni „digitalni sudija“ za sudbinu hiljada dece migranata.
Najveći problem je što sistem često greši
Prema istraživanjima i internim dokumentima do kojih su došli novinari Wireda, Lighthouse Reportsa i Independenta, algoritmi imaju ozbiljne probleme sa preciznošću. Posebno zabrinjava činjenica da sistem neretko sedamnaestogodišnjake procenjuje kao punoletne osobe, čime bi oni mogli da izgube zakonsku zaštitu koja pripada maloletnicima. U pojedinim slučajevima odstupanja iznose i po nekoliko godina.
Dodatni problem predstavlja činjenica da su rezultati znatno lošiji kod pojedinih grupa stanovništva. Interna testiranja pokazala su da algoritmi slabije funkcionišu kod osoba iz subsaharske Afrike, a naročito kod devojčica, kod kojih je prosečno odstupanje iznosilo čak 4,6 godina. To znači da bi dete od 14 ili 15 godina u pojedinim situacijama moglo biti svrstano među odrasle osobe.
Šta se događa kada dete bude pogrešno procenjeno
Posledice pogrešne procene mogu biti izuzetno ozbiljne. Maloletnici koji budu označeni kao odrasli mogli bi da završe u prihvatnim centrima za odrasle, da izgube pravo na obrazovanje, posebnu pravnu zaštitu i pristup socijalnim službama namenjenim deci. Organizacije za ljudska prava upozoravaju da bi takva odluka mogla dugoročno da utiče na njihovu bezbednost i mentalno zdravlje.
Stručnjaci dodatno ističu da fizički izgled nije pouzdan pokazatelj nečijih godina. Migranti često dolaze iz ratom pogođenih područja, prolaze kroz glad, iscrpljenost, traume i višemesečna putovanja koja mogu značajno promeniti njihov fizički izgled.
Naučnici upozoravaju na opasnost od „slepe vere“ u AI
Stručnjaci za sajber bezbednost i veštačku inteligenciju upozoravaju na fenomen poznat kao „automation bias“, odnosno sklonost ljudi da previše veruju preporukama koje dolaze od algoritama. Čak i kada je AI zamišljen kao pomoćno sredstvo, službenici vremenom mogu početi da njegove procene tretiraju kao objektivne činjenice, što je posebno problematično kada su u pitanju odluke koje direktno utiču na nečiji život.
Iako najnapredniji sistemi postižu prosečnu grešku manju od tri godine, stručnjaci naglašavaju da to nije dovoljno dobro za ovako osetljive situacije. Razlika između 17 i 18 godina u migrantskom sistemu nije samo broj, već granica koja određuje potpuno drugačiji pravni status osobe. Zato mnogi smatraju da se ovakva tehnologija prerano uvodi u praksu.
Više od 60 organizacija traži obustavu projekta
Više od 60 organizacija civilnog društva, među kojima su Human Rights Watch i Foxglove, zatražilo je od britanske vlade da odmah obustavi projekat. U otvorenom pismu upozorili su da je reč o eksperimentalnoj tehnologiji koja može da diskriminiše određene etničke grupe i da ugrozi osnovna prava dece koja traže azil. Posebno ih zabrinjava nedovoljna transparentnost celog procesa.
Kritičari takođe smatraju da postoji opasnost da Velika Britanija postane presedan koji će inspirisati druge evropske države da uvedu slične sisteme. Ako jedna velika država normalizuje upotrebu AI za procenu starosti dece migranata, postoji mogućnost da će se takva praksa proširiti i na druge delove Evrope.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama WMG uslova korišćenja i Zakonom o javnom informisanju i medijima.